Năm 1946, ở tuổi 23, ông làm Chính ủy Mặt trận Hà Nội khi Toàn quốc kháng chiến. Năm 1948 ông được phong hàm đại tá. Sau đó ông tham gia làm báo Vệ quốc quân (sau này là báo Quân đội nhân dân) trực thuộc Cục Chính trị, từ số 21 trở đi ông là Chủ nhiệm báo.

Năm 1950, ông làm chính ủy Trung đoàn Sông Lô mà Lê Trọng Tấn làm Trung đoàn trưởng, rồi làm Chính ủy Đại đoàn 312. Năm 32 tuổi (1955), Trần Độ là Chính ủy Quân khu 3 (Quân khu Tả ngạn) và đến năm 1958 được phong hàm Thiếu tướng.

Đầu năm 1965 ông vào miền Nam Việt Nam với bí danh Chín Vinh, cùng với các tướng Nguyễn Chí Thanh, Lê Trọng Tấn, Nguyễn Hòa, Hoàng Cầm để gây dựng lực lượng vũ trang chống chính quyền Việt Nam Cộng hòa và giữ chức Phó Chính ủy và Phó Bí thư Quân ủy Quân Giải phóng miền Nam Việt Nam.

Tháng 3 năm 1974, ông được phong hàm Trung tướng cùng đợt với Lê Đức Anh, Lê Trọng Tấn, Đàm Quang Trung, Đồng Sĩ Nguyên.

Từ năm 1974 đến năm 1976, ông giữ chức vụ Phó Chủ nhiệm Tổng cục Chính trị.